近年來，人工智慧（AI）浪潮席捲全球，公部門當然也看見了AI提升行政效率的巨大潛力。想像一下，每天堆積如山的審查案件，如果能交給AI幫忙初步篩選，公務員是不是就能早點下班了呢？
然而，理想很豐滿，現實卻很骨感。在數位治理研究中心（Taiwan E-Governance Research Center, TEG）舉辦的「114年度數位治理研析成果發表會」（2025 Digital Governance Research Results Presentation），由數位發展部侯宜秀政務次長（Isabel Hou, Deputy Minister, Ministry of Digital Affairs (MODA)）主持的論壇中，東吳大學法學院許慧瑩助理教授（Huei-Ying Hsu, Assistant Professor, School of Law, Soochow University）點出了一個最真實的痛點：「很多公務人員都知道AI很好用，但他們最擔心的是：如果AI出錯了，到底該由誰來負責？」
這篇文章，就讓我們跟著專家們的腳步，用最淺白的方式，帶您了解政府推動AI應用的挑戰，以及公務人員該如何在這波AI浪潮中「安全下莊」！
為什麼AI讓人這麼怕？從「透明算盤」變成「黑箱決策」
其實，政府使用「自動化決策」（ADM）已經有很長一段時間了。過去我們常見的自動核算稅額、交通違規自動拍照開罰，這類傳統的系統就像一把「透明算盤」，它只是單純的資料比對，規則寫得清清楚楚（若A則B），公務員很容易審查，出事了也很好解釋。
但現在的「AI自動化決策」完全是另一回事。AI具有「黑箱」的特性，有時候連寫程式的工程師都不一定能百分之百解釋AI是怎麼推導出結果。當機關買了這樣的系統來用，一旦發生錯誤（例如AI帶有歧視或偏見），到底問題出在原始訓練資料？還是公務機關提供的微調資料？或者是第一線公務人員使用AI的關卡出了問題？這中間的界線變得非常模糊。
許慧瑩教授指出，AI的導入讓傳統的「責任」產生了質變，自動化不會使責任消除，責任重心從「作成決定」轉向「選用系統、設定參數與持續監督」 _主要體現在三個層次：
- 行為責任（Responsibility）：指誰負責設計、採購與監督這個系統？在AI導入後，自動化程度越高，這部分將越來越落在「機關」的肩膀上。
- 說明義務（Accountability）：出錯時誰要負責解釋？因為AI是黑箱，如果系統無法提供「可解釋性」，公務人員根本說不清楚，導致課責機制被弱化。
- 法律責任（Liability）：這是大家最怕的！當民眾權益受損，因果關係變得極難認定，到底誰該面臨民事或刑事究責，往往講不清楚。
所以，自動化並不會讓責任憑空消失，而是讓「責任的重心」轉移了。過去是「誰蓋章誰負責」，未來則變成「誰決定採購系統、系統是否符合設定參數、誰有沒有好好使用與持續監督」的結構性問題。
國際踩坑實錄：當公務人員變成AI的「橡皮圖章」
如果公務人員完全信任AI的輸出結果，會發生什麼可怕的事？許教授舉了幾個血淋淋的國際案例：
- 荷蘭的教育補助AI（偏見與歧視）：荷蘭政府用AI抓詐領補助的人，結果系統標記出的高風險名單，大多是具有移民背景的弱勢族群。調查後才發現，即使指標看起來很中立，但資料來源本身就帶有偏差。
- 波蘭的失業輔助系統（人類淪為橡皮圖章）：波蘭用AI將失業者自動分類，以決定給予多少資源。結果公務員在審查時，幾乎全盤買單AI的建議，「推翻率不到1%」。這導致原本應該由人類把關的半自動系統，實質上變成了「全自動決策」，嚴重影響了偏鄉與單親等弱勢群體的權益，最後甚至被宣告違憲。
- 澳洲機器人債務風暴（荒謬的舉證責任）：澳洲政府用AI計算民眾是否溢領津貼，但系統竟然用「平均所得」去替代法律規定的「實際所得」來計算。更扯的是，系統自動發出追討通知後，還要求弱勢民眾「自己去舉證自己沒有欠錢」。這起事件引發極大民怨，負責單位一開始還想甩鍋給機器，最後逼得澳洲國會成立專門委員會來善後。
這些案例告訴我們一件事：如果在決策過程中，人類只是走個過場、完全不去做實質的複核，那麼我們就只是AI的橡皮圖章，而且一旦出事，後果將不堪設想。
預防勝於治療：把「事後找戰犯」變成「事前管風險」
面對這些可怕的風險，難道政府就乾脆不用AI了嗎？當然不是！許慧瑩教授強調，我們應該把治理的重心，從「事後討論誰要負責」，大幅往前移到「事前的風險評估與管理」。
我們可以參考加拿大等國家的作法，強化人類監督、可解釋性、稽核軌跡–從「技術治理」走向「責任治理」，在決定採用AI或是採購系統「之前」，就必須先進行「演算法影響評估」（Algorithmic Impact Assessment）。
具體來說，政府機關應該要先問自己：
- 這件事適合交給AI嗎？
- AI出錯會影響誰？風險多大？
- 公務人員能實際把關嗎？
- 能向民眾說明決策理由嗎？
- 導入後有持續監督機制嗎？
AI責任治理的重點不是「出了問題誰負責」，而是透過事前評估、風險分級與控制機制設計，讓風險可控、責任可追溯，進而降低機關與公務人員的責任負擔。
實戰派專家的生存守則：效能、容錯與法律界線
在論壇中，內政部統計處饒志堅處長（Chih-Chien Jao, Director, Department of Statistics, Ministry of the Interior）、數位治理研究中心高浩恩副主任（Hao-En Ko, Deputy Director, Taiwan E-Governance Research Center）、逢甲大學李長曄助理教授（Chang-Yeh Lee, Assistant Professor, Department of Land Management, Feng Chia University）三位與談專家，也從各自的實務經驗，傳授了公務員與AI和平共處的實用秘笈：
接受「AI一定會出錯」，建立除錯循環
饒志堅處長一針見血地指出，AI本質上就是一個「機率模型」，「沒有保證百分之百對這種事」。我們用AI，是為了降低人類出錯的機率。
既然會出錯，該怎麼辦？饒處長提出了聰明的「三重AI複核機制」：如果一個AI出錯的機率是20%（0.2），那如果你找三個不同的AI來交叉檢核，三個同時出錯的機率就會驟降到「0.2 × 0.2 × 0.2 = 0.008（不到1%）」！這就是防患未然的智慧。
此外，系統應該要能告訴公務員「這次判斷的正確率有多少」。饒處長舉例，就像主計總處的行業分類系統，它會告訴你這個建議的正確率是97%還是2%。當公務員知道眼前的建議風險很高時，就知道必須提高人工審查的標準。只要建立友善的申訴管道，並把民眾的申訴拿來持續訓練AI，「教AI真的比教人類快多了！」
從「既有指標」下手，化解甩鍋恐懼
高浩恩副主任點出，目前政府的AI參考指引，第一件事就是告訴公務員「你要負責」，這導致大家綁手綁腳不敢用。
他建議，想導入AI，可以先從「取代本來就有的客觀指標」開始。例如在評估「高風險/脆弱家庭」時，本來就有既定的條件，把這些條件丟給機器學習去跑，公務員的心理門檻會低很多。面對海量案件，要求社工每一件都做完美判斷太累了，讓AI做初步篩選，對於分數在及格邊緣（borderline）的案件再交由人類專業判斷，在「速度」與「完美究責」之間取得平衡，才是務實的做法。同時，推廣使用「封閉式、在地端」的運算模型，也能消除公務機關對資料外洩的恐懼。
釐清內外責任，不要自己嚇自己
李長曄助理教授從公法學角度給大家吃了一顆定心丸。公務員最怕的是「印章一蓋下去，產生了法律效果，我就要扛責」。但李教授指出，不是所有的行政行為都有法律效果！
例如，環保局的感測器如果發現工廠疑似異常排污，機關可以先發一個「通知」給工廠請他們注意。這種單純的「通知」沒有直接開罰的法律效果，公務員就不用擔心承受巨大的究責壓力，這種多階段的行政程序能有效降低使用AI的擔憂。
李教授更進一步將責任拆解：
- 外部責任（對人民）：人民收到的處分，永遠是「機關」的名義，不是針對某個特定的公務員。人民真正在乎的是「理由是什麼？」，只要AI能做好透明度、講得出判斷理由，就能保障民眾權利。
- 內部責任（對長官）：如果機關真的被告輸了，長官要在內部究責時，看的其實是「你當時有沒有持續去檢驗這個系統？你為什麼這麼輕易就信賴AI？」 這也是為什麼公務員絕對不能只是盲目蓋章。
做AI的主人，而不是它的背書小弟
AI絕對是未來公部門不可或缺的超級助手，它可以幫我們處理耗費人力的重複性日常業務，讓我們早點下班。
但在擁抱AI的同時，我們必須保持清醒。就像許慧瑩和李長曄兩位教授所共同呼籲的：在使用AI做決策前，你可以先要求AI「提出一份決策說明報告」。由人類來審視這個理由充不充分，絕對不能照單全收。
透過事前的演算法影響評估、明確的人機協作規範、以及正確的風險觀念，我們就能讓AI乖乖當個好幫手，在提升行政效能的同時，也穩穩守護住人民的權益與公務員自己的飯碗！